Nguyễn Văn Khảm sinh ngày 2 tháng 10 năm 1952 tại Đàn Giản, Hà Đông (nay thuộc Hà Nội).[7][8] Thân mẫu ông là bà Maria Madalena Lý Thị Hảo, sinh năm 1926.[9][10][11] Năm 1954, cậu bé Khảm theo gia đình di cư vào Nam. Với chí hướng tu học, cậu bé Khảm theo học chương trình đào tạo giáo sĩ Công giáo, bắt đầu bằng việc nhập học tại Tiểu chủng viện Thánh Quý, Cái Răng, Cần Thơ vào năm 1963 và tốt nghiệp năm 1972. Sau đó, chủng sinh Khảm theo học Đại Chủng viện Thánh Tôma, Long Xuyên và Đại chủng viện Thánh Giuse Sài Gòn lần lượt từ năm 1973 đến năm 1976 và từ năm 1977 đến năm 1979.[7][8][gc 1]